Tiền thân của Trường Đại học Sư phạm Thành phố Hồ Chí Minh là Phân khoa Sư phạm (Faculté de Pédagogie) thuộc Viện Đại học Sài Gòn (còn gọi là trường Đại học Sư phạm Sài Gòn), được thành lập vào năm 1957 dưới chính thể Việt Nam Cộng hòa. Ngày 8 tháng 11 năm 1975, Chính phủ Cách mạng lâm thời Cộng hòa Miền Nam Việt Nam thành lập Viện Đại học Sài Gòn gồm 11 trường đại học trên địa bàn, trong đó có cả Trường Đại học Sư phạm Sài Gòn[3]. Sau khi Việt Nam thống nhất, ngày 27 tháng 10 năm 1976, Thủ tướng Chính phủ Việt Nam đã ban hành Quyết định số 426/TTg thành lập Trường Đại học Sư phạm Thành phố Hồ Chí Minh trên cơ sở của Trường Đại học Sư phạm Sài Gòn.

Năm 1995, Trường Đại học Sư phạm Thành phố Hồ Chí Minh đã được nhập vào làm một thành viên của Đại học Quốc gia Thành phố Hồ Chí Minh. Tuy nhiên, vào năm 1999, Đại học Quốc gia Thành phố Hồ Chí Minh được tổ chức lại trên cơ sở chia tách và thành lập mới. Theo đó, Trường Đại học Sư phạm Thành phố Hồ Chí Minh lại được Thủ tướng Chính phủ tách ra thành một trường trực thuộc Bộ Giáo dục và Đào tạo Việt Nam. Theo quyết định của Thủ tướng Chính phủ, Trường Đại học Sư phạm Thành phố Hồ Chí Minh là hiện là một trong 15 trường đại học trọng điểm quốc gia Việt Nam và cũng là một trong hai trường đại học sư phạm lớn của Việt Nam (cùng với Trường Đại học Sư phạm Hà Nội).